PLNOG 6: Paweł Sadowski - Zarządzanie obciążeniem w klastrze webowym

1. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Zarz ˛adzanie obci ˛a˙zeniem w klastrze webowym Czyli jak NK obsługuje U˙zytkowników Paweł Sadowski Dział Zarz ˛adzania Systemami IT Nasza Klasa Sp. z o. o. PLNOG 6, Warszawa, 17 Marca 2011

2. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Agenda 1 Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? 2 Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy 3 Podsumowanie

4. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie HAProxy - balansowanie ruchu HTTP Na co pozwala HAProxy Balansowanie ruchu HTTP w ró˙znych trybach Round Robin (Weighted Round Robin) Least Connections (Weighted Least Connections) Przypinanie U˙zytkowników Web Firewall Modyﬁkowanie nagłówków HTTP

12. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Weighted Round Robin Zalety Bardzo szybkie i proste Małe obci ˛a˙zenie serwerów „haproxy” Wady U˙zytkownicy „skacz ˛a” po serwerach Trudno okre´sli´c zapas mocy na serwerach

17. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Ile sprz˛etu musimy trzyma´c w zapasie? Zapas mocy obliczeniowej Bazuj ˛ac na poprzednim rozwi ˛azaniu najistotniejszym czynnikiem był stopie´n wykorzystania CPU na serwerach % wykorzystania CPU

22. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Zapas Mocy Obliczeniowej Problemy Koszt utrzymania du˙zej liczby serwerów „rezerwowych” Wyznaczenie odpowiednio wczesnego momentu, w którym nale˙zy zwi˛ekszy´c zapas

26. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Czynniki maj ˛ace wpływ na obci ˛a˙zenie Ilo´sć U˙zytkowników → ilo´sć ˙z ˛adań do serwerów Ilo´sć jednocze´snie obługiwanych ˙z ˛adań Rodzaj obsługiwanych ˙z ˛adań oraz ´sredni czas ich obsługi

30. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie ´Sredni czas generowania strony Warto´sć tego parametru przekłada si˛e na czas ładowania si˛e strony dla U˙zytkownika Jego „optymalna” warto´sć niekoniecznie oznacza: „wygeneruj odpowied´z najszybciej jak si˛e da” Dla ka˙zdego typu serwera została okre´slona maksymalna wydajno´sć bazuj ˛ac na z góry okre´slonym czasie generowania strony Wydajno´sć została okre´slona jako maksymalna ilo´sć jednocze´snie obsługiwanych ˙z ˛adań Wspomniany parametr musi być uwzgl˛edniany przez HAProxy przy blansowaniu ˙z ˛adań

36. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Maksymalna wydajno´s´c serwera 8 CPU 24 CPU (HT)

37. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Zapełnianie serwerów Limitujemy ilo´s´c jednoczesnych poł ˛acze´n dla danej klasy serwerów Przypinamy U˙zytkowników do danego serwera U˙zytkownicy s ˛a automatycznie przerzucani na inny serwer w przypadku osi ˛agni˛ecia limitu Nadal korzystamy z WRR – serwery rezerwowe maj ˛a bardzo nisk ˛a wag˛e Serwery rezerwowe s ˛a u˙zywane dopiero w momencie gdy wszystkie inne serwery s ˛a zaj˛ete

43. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Zapełnianie serwerów Znaj ˛ac maksymaln ˛a wydajno´sć serwera wiemy ile ˙z ˛adań jest w stanie obsłu˙zyć, wi˛ec mo˙zemy zacz ˛ać mu je przydzielać zgodnie z nowymi regułami Zapełnianie serwerów odbywa si˛e teraz „w poziomie” Zapłenianie serwerów

50. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Pomiar zapasu mocy Zapas mocy wyznaczamy licz ˛ac serwery rezerwowe – ka˙zdy serwer to dodatkowe ˙z ˛adania, które mog ˛a zostać obsłu˙zone Gdy Portal zaczyna korzystać z serwerów rezerwowych to oznacza, ˙ze: Mamy wi˛ecej ˙z ˛adań do obsługi - dokupujemy sprz˛et Zmiany w aplikacji spowodowały wi˛eksze zapotrzebowanie na CPU – szukamy przyczyny i w zale˙zno´sci od tego reagujemy

56. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Podsumowanie Biznes wyznacza warto´s´c optymaln ˛a „´sredniego czasu generowania strony”

57. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Podsumowanie Biznes wyznacza warto´s´c optymaln ˛a „´sredniego czasu generowania strony”

58. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Pytania ?

59. Zarz ˛adzanie obci ˛a˙zeniem Paweł Sadowski Krótki Wst˛ep Jak to było do tej pory? Co nam przeszkadzało? Zastosowane Rozwi ˛azanie Nowe podej´scie Rozkładanie obci ˛a˙zenia Pomiar zapasu mocy Podsumowanie Dzi˛ekuj˛e za uwag˛e

PLNOG 6: Paweł Sadowski - Zarządzanie obciążeniem w klastrze webowym

Recommended

Recommended

More Related Content

Featured

Featured (20)

PLNOG 6: Paweł Sadowski - Zarządzanie obciążeniem w klastrze webowym